Hàm lồi là một hàm f : X → R ∪ {±∞} với giá trị thuộc tập số thực mở rộng thỏa mãn bất đẳng thức Jensen: với x, y ∈ X và λ ∈ [0, 1] ta có

f ( λ x + ( 1 − λ ) y ) ≤ λ f ( x ) + ( 1 − λ ) f ( y ) {\displaystyle f(\lambda x+(1-\lambda )y)\leq \lambda f(x)+(1-\lambda )f(y)} .[1]

Nếu f cũng thỏa dạng ngặt của bất đẳng thức trên thì f được gọi là hàm lồi chặt.[1]

Một cách tương đương, hàm lồi là hàm giá trị thực (mở rộng) có trên đồ thị

{ ( x , r ) ∈ X × R : f ( x ) ≤ r } {\displaystyle \left\{(x,r)\in X\times \mathbf {R} :f(x)\leq r\right\}}

là một tập lồi.[1][2]